OpenAI, Perşembe günü, mantıksal düşünme, problem çözme ve bilimsel soruları yanıtlama alanlarında önemli ilerlemeler sunan en yeni o1 modellerini tanıttı. Modeller, insan düşünme yeteneğine ulaşacak makinelerin, yapay genel zekânın (AGI) geliştirilmesine yönelik önemli bir adım olarak kabul ediliyor.

Bununla birlikte, yapay zekanın çalışma biçimini açıklayan eşlik eden sistem haritasında OpenAI, yeni modellerin özellikle biyolojik silahların üretimiyle bağlantılı olarak teknolojinin kötüye kullanılma riskini "önemli ölçüde artırdığını" kabul etmektedir. Şirket ilk defa kimyasal, biyolojik, radyolojik ve nükleer (KBRN) silahlar açısından modellerine "orta risk değerlendirmesi" vermiştir. Bu, teknolojinin uzmanların biyolojik silah geliştirme yeteneklerini önemli ölçüde artırdığı anlamına gelmektedir.

İleri Düzeyde Mantıksal Akıl Yürütme Yapabilen Gelişmiş Yapay Zeka Yazılımının Artan Kötüye Kullanım Potansiyeli Bulunduğuna Dikkat Çeken Uzmanlar, Bu Riskleri En Aza İndirmek İçin Yasal Düzenlemelerin Aciliyetini Vurguluyor. Dünyaca Ünlü Yapay Zeka Araştırmacılarından Biri Olan Yoshua Bengio, Firmalardan Biyolojik Silahların Geliştirilmesinde Yapay Zeka Kullanımını Önlemek İçin Güvenlik Tedbirleri Alınmasını Zorunlu Kılacak Kaliforniya’daki Bir Yasa Tasarısına Atıfta Bulundu. Bengio, "Yapay Zeka AGI’ye Doğru İlerledikçe, Uygun Koruma Önlemleri Olmadığında Riskler Daha da Artıyor" diye Uyardı.

Google, Meta ve Anthropic gibi teknoloji şirketleri de şu anda ileri düzeyde KI sistemleri geliştirmek için çalışıyor. Bu KI ajanları, insanların görevleri yerine getirmelerine yardımcı olabilir ve ayrıca KI geliştirme maliyetlerinin yüksekliğiyle karşı karşıya olan şirketler için potansiyel olarak kazançlı iş fırsatları sunabilir.

Mira Murati, OpenAI Baş Teknoloji Sorumlusu, Financial Times'a verdiği demeçte, şirketin o1 modellerinin tanıtımında özellikle titiz davrandığını, çünkü bu modellerin geniş kapsamlı yeteneklere sahip olduğunu açıkladı. Ancak, modeller ChatGPT üzerinden ücretli abonelere ve bir API aracılığıyla programcılara sunulacak. Murati, modellerin kapsamlı güvenlik testlerine tabi tutulduğunu ve güvenlik açısından önceki sürümlere göre belirgin ölçüde daha iyi performans gösterdiğini ekledi.